Бивш лидер на OpenAI казва, че безопасността е „отстъпила на заден план пред лъскавите продукти“ в компанията за изкуствен интелект
Бивш водач на OpenAI, който подаде оставка от компанията по-рано тази седмица, сподели в петък, че сигурността „ е отстъпила на назад във времето пред лъскавите артикули ” във авторитетната компания за изкуствен интелект.
Ян Лейке, който ръководеше екипа „ Super Alignment “ на OpenAI дружно със съосновател на компанията, който също подаде оставка тази седмица, написа в поредност от изявления в платформата за обществени медии X, че се причислява към основаната в Сан Франциско компания, тъй като смяташе, че това би било най-хубавото място за проучване на ИИ.
„ Въпреки това, не съм склонен с управлението на OpenAI по отношение на главните цели на компанията от много време, до момента в който най-сетне достигнахме точка на изкривяване “, написа Leike, чийто финален ден беше четвъртък.
Изследовател на AI по обучение, Leike сподели, че има вяра, че би трябвало да се концентрира повече върху подготовката за идващото потомство модели на AI, в това число върху неща като сигурност и анализиране на публичното влияние на такива технологии. Той сподели, че построяването на „ по-умни от индивида машини е рисково начинание “ и че компанията „ поема голяма отговорност от името на цялото човечество “.
„ OpenAI би трябвало да се трансформира в AGI компания, която е преди всичко за сигурността “, написа Leike, употребявайки съкратената версия на изкуствения общ разсъдък, футуристична визия за машини, които са толкоз умни, колкото хората или най-малко могат да вършат доста неща толкоз добре, колкото и хората.
Оставката на Лейке пристигна, откакто съоснователят и основен академик на OpenAI Иля Суцкевер сподели във вторник, че той напуща компанията след съвсем десетилетие. Sutskever беше един от четиримата членове на борда предходната есен, които гласоподаваха да изгонят основния изпълнителен шеф Сам Алтман - единствено с цел да го върнат бързо. Суцкевер беше този, който сподели на Алтман предишния ноември, че е уволнен, само че по-късно той сподели, че съжалява за това.
Sutskever сподели, че работи върху нов план, който е важен за него, без да предлага спомагателни детайлности. Той ще бъде сменен от Якуб Пачоцки като основен академик. Алтман назова Пачоки „ също елементарно един от най-великите мозъци на нашето потомство “ и сподели, че е „ доста убеден, че ще ни накара да реализираме бърз и безвреден прогрес към нашата задача да подсигуряваме, че AGI е от изгода за всички “.
В понеделник OpenAI сподели най-новата актуализация на своя модел с изкуствен интелект, който може да имитира човешкия темп в вербалните си отговори и даже може да се опита да открие настроенията на хората.
